“智善·观行”人工智能大模型伦理安全观测站发布(2023-5-8)
“智善·观行”人工智能大模型伦理安全观测站发布(2023-5-8)

近日,“智善·观行”人工智能大模型伦理安全观测站发布。

该平台由中国科学院自动化研究所人工智能伦理与治理研究中心、远期人工智能研究中心联合研发并提供服务。平台旨在通过公众的“察言观行”,群智群力观察评估现有人工智能大模型表现出的“道德品行”,从而为进一步改善相关人工智能大模型提供参考依据,共同助力人工智能大模型伦理安全的提升与发展。

该平台以公众参与、公众反馈的众包模式邀请公众参与对不同企业、学术机构等发布的人工智能大模型的伦理安全评估,通过在线提交测试结果的形式反馈大模型输出存在的伦理安全问题,并输出结果合乎伦理安全的案例。相关评估结果与问题在平台公开,一方面可为所涉及的人工智能大模型提供帮助和反馈,便于其自身进一步改进,另一方面可号召所有人工智能大模型在研发中参考其他模型存在的潜在问题以及合乎伦理安全的输出,利用相关的问题与案例改进自身服务。

网站链接:https://for-good.ai/large-ai-investigator

【关闭窗口】


工业控制计算机网站